相互独立,

于是 是马尔科夫链, 且 .